The foundation models have recently shown excellent performance on a variety of downstream tasks in computer vision. However, most existing vision foundation models simply focus on image-level pretraining and adpation, which are limited for dynamic and complex video-level understanding tasks. To fill the gap, we present general video foundation models, InternVideo, by taking advantage of both generative and discriminative self-supervised video learning. Specifically, InternVideo efficiently explores masked video modeling and video-language contrastive learning as the pretraining objectives, and selectively coordinates video representations of these two complementary frameworks in a learnable manner to boost various video applications. Without bells and whistles, InternVideo achieves state-of-the-art performance on 39 video datasets from extensive tasks including video action recognition/detection, video-language alignment, and open-world video applications. Especially, our methods can obtain 91.1% and 77.2% top-1 accuracy on the challenging Kinetics-400 and Something-Something V2 benchmarks, respectively. All of these results effectively show the generality of our InternVideo for video understanding. The code will be released at https://github.com/OpenGVLab/InternVideo .

对比视力语言预训练（称为剪辑）为使用大型图像文本对学习视觉表示提供了新的范式。通过零拍知识转移，它在下游任务上表现出令人印象深刻的表现。为了进一步增强剪辑的适应能力，现有的方法提议微调额外的可学习模块，这大大改善了少量的性能，但引入了额外的培训时间和计算资源。在本文中，我们提出了一种无训练的适应方法，用于进行剪辑进行几个弹药分类，称为Tip-Adapter，该分类不仅继承了零拍剪辑的无训练优势，而且还与训练需要的那些相当的表现相当方法。 TIP-ADAPTER通过少数照片训练集通过键值缓存模型构造适配器，并更新通过功能检索中剪辑中编码的先验知识。最重要的是，可以通过对10 $ \ times $ \现有方法少的速度$ \ times $ $ \现有方法进行微调，这可以进一步提高Imagenet上的最先进。高效的。我们在11个数据集上进行了很少的射击分类实验，以证明我们提出的方法的优势。代码在https://github.com/gaopengcuhk/tip-adapter上发布。

分散注意力的驾驶每年会导致数千人死亡，以及如何应用深度学习的方法来防止这些悲剧已成为一个关键问题。在第六AI城市挑战赛的Track3中，研究人员提供了一个具有密集动作注释的高质量视频数据集。由于数据量表和不清楚的动作边界，数据集提出了一个独特的挑战，可以精确地本地化所有不同的动作并对其类别进行分类。在本文中，我们充分利用了视频之间的多视图同步，并进行了强大的多视图实践（MVP）来驱动动作本地化。为了避免过度拟合，我们将Slowfast用动力学-700预训练作为特征提取器进行微调。然后，不同视图的功能将传递给ActionFormer，以生成候选行动建议。为了精确地本地化所有动作，我们设计了精心设计的后处理，包括模型投票，阈值过滤和删除重复。结果表明，我们的MVP对于驱动动作定位是可靠的，在Track3测试集中达到28.49％的F1分数。

在现实世界中，具有挑战性的照明条件（低光，不渗透和过度暴露）不仅具有令人不愉快的视觉外观，而且还要污染计算机视觉任务。现有的光自适应方法通常分别处理每种条件。而且，其中大多数经常在原始图像上运行或过度简化相机图像信号处理（ISP）管道。通过将光转换管道分解为局部和全局ISP组件，我们提出了一个轻巧的快速照明自适应变压器（IAT），其中包括两个变压器式分支：本地估计分支和全球ISP分支。尽管本地分支估算与照明有关的像素的本地组件，但全局分支定义了可学习的Quires，可以参加整个图像以解码参数。我们的IAT还可以在各种光条件下同时进行对象检测和语义分割。我们已经在2个低级任务和3个高级任务上对多个现实世界数据集进行了广泛评估。我们的IAT只有90K参数和0.004S处理速度（不包括高级模块），其IAT始终达到了卓越的性能。代码可从https://github.com/cuiziteng/illumination-aptive-transformer获得

由于视频帧之间的庞大本地冗余和复杂的全局依赖性，这是一种具有挑战性的任务。该研究的最近进步主要由3D卷积神经网络和视觉变压器推动。虽然3D卷积可以有效地聚合本地上下文来抑制来自小3D邻域的本地冗余，但由于接收领域有限，它缺乏捕获全局依赖性的能力。或者，视觉变压器可以通过自我关注机制有效地捕获远程依赖性，同时具有在每层中所有令牌之间的盲目相似性比较来降低本地冗余的限制。基于这些观察，我们提出了一种新颖的统一变压器（统一机），其以简洁的变压器格式无缝地整合3D卷积和时空自我关注的优点，并在计算和准确性之间实现了优选的平衡。与传统的变形金刚不同，我们的关系聚合器可以通过在浅层和深层中学习本地和全球令牌亲和力来解决时空冗余和依赖性。我们对流行的视频基准进行了广泛的实验，例如动力学-400，动力学-600，以及某种东西 - 某种东西 - 某种东西 - 某种东西 - 某种东西。只有ImageNet-1K预磨料，我们的统一器在动力学-400 /动力学-600上实现了82.9％/ 84.8％的前1个精度，同时需要比其他最先进的方法更少的gflops。对于某些东西而言，我们的制服分别实现了新的最先进的表演，分别实现了60.9％和71.2％的前1个精度。代码可在https://github.com/sense-x/uniformer获得。

最近，通过对比视觉 - 语言预训练（CLIP）的零射击和少量学习已经在2D视觉识别上显示了鼓舞人心的性能，从而了解在开放词汇设置中将图像与其相应的文本匹配。然而，它仍然在探索中，是否通过2D中的大规模图像文本对预先训练的剪辑可以推广到3D识别。在本文中，我们通过提出引人点来识别这种设置是可行的，这在剪辑编码点云和3D类别文本之间进行对准。具体地，我们通过将点云投射到多视图深度映射而不呈现，并聚合视图零拍摄预测以实现从2D到3D的知识转移。首先，我们设计了一个视图间适配器，以更好地提取全局特征，并自适应地融合从3D到2D预培训的剪辑中学到的几次拍摄知识。只需在几次拍摄设置中微调轻量级适配器，可以在很大程度上提高要素的性能。此外，我们遵守CONTCLIP和古典3D监督网络之间的互补财产。通过简单的合奏，PointClip提高了基线的性能，甚至超越了最先进的模型。因此，PointClip是在低资源成本和数据制度下通过剪辑的有效3D点云理解的有希望的替代方案。我们在广泛采用的ModelNet10，ModelNet40和挑战ScanObjectnn上进行彻底的实验，以证明Pointclip的有效性。代码在https://github.com/zrrskywalker/pointclip发布。

视觉变压器（VITS）已成为各种视觉任务的流行结构和优于卷积神经网络（CNNS）。然而，这种强大的变形金机带来了巨大的计算负担。而这背后的基本障碍是排气的令牌到令牌比较。为了缓解这一点，我们深入研究Vit的模型属性，观察到VITS表现出稀疏关注，具有高令牌相似性。这直观地向我们介绍了可行的结构不可知的尺寸，令牌编号，以降低计算成本。基于这一探索，我们为香草vits提出了一种通用的自我切片学习方法，即坐下。具体而言，我们首先设计一种新颖的令牌减肥模块（TSM），可以通过动态令牌聚集来提高VIT的推理效率。不同于令牌硬滴，我们的TSM轻轻地集成了冗余令牌变成了更少的信息，可以在不切断图像中的鉴别性令牌关系的情况下动态缩放视觉注意。此外，我们介绍了一种简洁的密集知识蒸馏（DKD）框架，其密集地以柔性自动编码器方式传送无组织的令牌信息。由于教师和学生之间的结构类似，我们的框架可以有效地利用结构知识以获得更好的收敛性。最后，我们进行了广泛的实验来评估我们的坐姿。它展示了我们的方法可以通过1.7倍加速VITS，其精度下降可忽略不计，甚至在3.6倍上加速VITS，同时保持其性能的97％。令人惊讶的是，通过简单地武装LV-VIT与我们的坐线，我们在想象中实现了新的最先进的表现，超过了最近文学中的所有CNN和VITS。

自我关注已成为最近网络架构的一个组成部分，例如，统治主要图像和视频基准的变压器。这是因为自我关注可以灵活地模拟远程信息。出于同样的原因，研究人员最近使尝试恢复多层Perceptron（MLP）并提出一些类似MLP的架构，显示出极大的潜力。然而，当前的MLP样架构不擅长捕获本地细节并缺乏对图像和/或视频中的核心细节的逐步了解。为了克服这个问题，我们提出了一种新颖的Morphmlp架构，该架构专注于在低级层处捕获本地细节，同时逐渐改变，以专注于高级层的长期建模。具体地，我们设计一个完全连接的层，称为Morphfc，两个可变过滤器，其沿着高度和宽度尺寸逐渐地发展其接收领域。更有趣的是，我们建议灵活地调整视频域中的Morphfc层。为了我们最好的知识，我们是第一个创建类似MLP骨干的用于学习视频表示的骨干。最后，我们对图像分类，语义分割和视频分类进行了广泛的实验。我们的Morphmlp，如此自我关注的自由骨干，可以与基于自我关注的型号一样强大。

作为剪辑的对比视觉语言预培训为通过使用大规模对比图像文本对提供了学习视觉表示的新范式。它显示了零击中知识转移到下游任务的令人印象深刻的性能。为了进一步增强剪辑的几次射击功能，提出的剪辑适配器提出微调轻量级残留功能适配器，并显着提高了几次拍摄分类的性能。但是，这样的过程仍然需要额外的培训和计算资源。在本文中，我们提出了\ textbf {t}下雨的cl \ textbf {ip} - \ textbf {适配器}（\ textbf {tip-adapter}），它不仅继承了剪辑的无训练优势，还可以相当地执行或甚至比剪辑适配器更好。提示 - 适配器不需要任何用于训练适配器的备份传播，而是通过从几次拍摄训练集构造的键值高速缓存模型创建权重。在这种非参数的方式中，提示适配器在没有任何训练的情况下获取良好的适配器权重，这既有效且有效。此外，可以通过微调这种适当的初始化适配器进一步提高尖端适配器的性能，仅用于具有超快速收敛速度的几个时期。我们对ImageNet和其他10个数据集进行了广泛的小型分类实验，以证明提出的提示适配器的优越性。代码将以\ URL {https://github.com/gaopengcuhk/tip-adapter}释放。

我们专注于新建人类行动综合的问题。鉴于动作视频，目标是从看不见的视点生成相同的操作。当然，新颖的视图视频合成比图像合成更具挑战性。它需要具有时间一致性的一系列现实帧的合成。此外，将不同的动作传送到新颖的目标视图，需要了解行动类别和同时改变的观点。为了解决这些挑战，我们提出了一种名为姿势引导动作可分离生成的对抗网（PAS-GaN）的新颖框架，其利用姿势来缓解这项任务的难度。首先，我们提出了一种经常性的姿势变换模块，其将来自源视图的动作转换为目标视图，并在2D坐标空间中生成新颖的视图姿势序列。其次，经过良好变化的姿势序列使我们能够在目标视图中分离行动和背景。我们使用新颖的本地全局空间转换模块，在目标视图中有效地生成序列视频特征，使用这些动作和背景特征。最后，生成的视频特征用于在3D解码器的帮助下综合人类行动。此外，要专注于视频中的动态动作，我们提出了一种新颖的多尺度动作可分离损耗，进一步提高了视频质量。我们对两种大型多视图人体行动数据集，NTU-RGBD和PKU-MMD进行了广泛的实验，展示了PAS-GaN的有效性，这优于现有的现有方法。